ICAE-Bench: Evaluating Coding Agents as Interactive Project Builders
ICAE-Bench：交互式项目构建编程代理评估基准
🧭 交互式编程Agent评估与用户模拟
Fudan University · Meituan Group · Singapore Management University · Shanghai Innovation Institute
提出首个从模糊需求出发交互式构建项目的编程代理评估基准，包含480个任务与自动用户模拟
📌 工作参考价值（4 点）
- 用户模拟器设计思路可迁移至对话式推荐：使用预定义的“用户数据”来约束模拟过程，避免人为虚构需求或泄露答案，确保交互可重现。搜索/推荐Agent评测中可借鉴此法，用历史行为序列生成模糊意图并模拟用户追问。
- 多维黑盒评估范式适用于Agent推荐：除功能正确性外，还细粒度评估语义相似度、结构保真度、交互质量等，可指导构建推荐/搜索Agent的全面评估体系，防止仅看单一指标导致误判。
- 将模糊需求锚定到具体真实代码库：在电商导购Agent场景，可用真实商品库或业务接口作为“可执行基准”，评估Agent能否将模糊意图（如“帮我找个性价比高的蓝牙耳机”）逐步澄清并落地为具体推荐/搜索动作。
- 通过隐藏约束与边界情况暴露Agent短板：评测表明当前模型擅长表层复现，但对隐藏业务规则、异常分支处理不足。在推荐系统中，可专门设计需要常识推理、用户长尾偏好、促销规则链的测试集，以检验Agent的深层理解与交互决策能力。